草庐IT

Java HashMap 调整大小

全部标签

hadoop - 使用 du 命令查看 HDFS 文件系统的大小

我知道“du-h”命令以人类可读的格式给出了磁盘使用情况。但是请让我知道在我的Hadoop集群的HDFS文件系统上使用“du-h”命令时显示的两个值是什么。[hduser@node2~]$sudo-uhdfshdfsdfs-du-h/6.3K768.0M/hbase00/tmp371.6M743.2M/userHbase内目录的输出:[hduser@node1~]$sudo-uhdfshdfsdfs-du-h/hbase/WALs00/hbase/WALs/hregion-9073552000/hbase/WALs/node1.example.com,60020,14633232428

缩小UIIMAGE但返回更大的内存大小?

我想缩小UIImage并使用以下方法。-(UIImage*)imageWithImage:(UIImage*)imageconvertToSize:(CGSize)size{UIGraphicsBeginImageContext(size);[imagedrawInRect:CGRectMake(0,0,size.width,size.height)];UIImage*destImage=UIGraphicsGetImageFromCurrentImageContext();UIGraphicsEndImageContext();returndestImage;}它返回正确的尺寸,但图像大小(

hadoop - HBase 预拆分和最大区域大小

我无法找到问题的答案:我想预拆分HBase表,例如在5个地区。我已将配置中的最大文件大小设置为10GB。(当然只是例子)。如果我将所有5个区域都填满表怎么办?HBase会为此创建第6个区域吗?我发现它会自动分成2个区域,但我需要确定和一些解释。感谢大家的回答。 最佳答案 让我们首先讨论一下预拆分。仅当我们知道键的分布时才推荐使用,否则如果数据中存在任何偏差,预拆分可能会导致数据负载不均匀。这是Hbase用于自动和可配置的表分片的一般性质。从ClouderaHbase站点引用:-无论是否使用预分割,当一个区域达到一定限度时,它会自动分

hadoop - 当文件大于 HDFS block 大小时获取无法寻求 java 异常

所以当我想处理一个大于我的hdfsblock大小(64mb)的文件时,出现以下异常:2013-05-3101:49:46,252WARNorg.apache.hadoop.mapred.Child:Errorrunningchildjava.io.IOException:Can'tseek!atorg.apache.hadoop.hdfs.HftpFileSystem$3.seek(HftpFileSystem.java:359)atorg.apache.hadoop.fs.FSDataInputStream.seek(FSDataInputStream.java:37)atorg.a

hadoop - 列限定符值最大大小

我正在考虑将我们的HBase用作内容管理存储。我有一些大的xml文档(5MB+)我想存储。我可以在单个列限定符中存储的字节数是否有限制? 最佳答案 默认值为10MB。但是您可以通过hbase-site.xml中的hbase.client.keyvalue.maxsize属性更改它。如果您希望数据非常大,那么您可以将数据保存在HDFS中,并将指向数据的指针存储在HBase中。 关于hadoop-列限定符值最大大小,我们在StackOverflow上找到一个类似的问题:

hadoop - 增加 jar 中类的 Java 堆大小

我需要执行包含在JAR文件中的java程序,但我收到一个错误,要求增加java堆大小。我需要使用命令行增加堆大小。我尝试了java-Xmx6144M-d64但它没有用。另一方面,java-Xmx6144MClassName需要ClassName。如何指定jar中的类名?是否有一些命令可以增加所有类的Java堆?这里是错误:ava.lang.OutOfMemoryError:GCoverheadlimitexceededatjava.util.regex.Pattern.compile(Pattern.java:1047)atjava.lang.String.replace(String

java - 什么是 hbase 压缩文件大小

我最近读到,在Hbase主要压缩之后,如果存储文件的大小变得大于hbase.hregion.max.filesize,即256MB,那么它再次溢出到2。所以谁能解释压缩是在什么文件上完成的尺寸。majorcompaction后形成的storefile会有多少列族的数据? 最佳答案 hbase.hregion.max.filesize顾名思义,指的是区域大小。区域本质上是您的hbase数据的分区(存储为hfile)。HBase会将您的数据存储到区域中,如果区域变得太大(太大由hbase.hregion.max.filesize定义),

Hadoop 文件系统大小 du 命令

我想知道hadoopfs-du的两个输出是什么意思。文档上不清楚:In[16]:subprocess.call(["hadoop","fs","-du","-h","/project/crm/warehouse/"])输出:5.9G17.8G/project/crm/warehouse/n98770_patron_1路径的实际大小是多少?5.9GB还是17.8?谢谢 最佳答案 第一列是实际的文件或目录大小,第二列是复制实际消耗的空间由于HDFS复制您的数据,第二个字段显示它之后占用的总磁盘空间量。在这种情况下,您的总尺寸为17.8,

java - 使用 Java API 读取 HDFS 的默认 block 大小

我想使用java程序从hdfs-site.xml中读取这个默认block大小值?任何人都可以帮忙吗?dfs.blocksize134217728 最佳答案 我发现有更好的选择,而不是从HDFS-SITEXML读取默认block大小。Configurationconf=newConfiguration();conf.set("fs.defaultFS","hdfs://0.0.0.0:8020");FileSystemfs=FileSystem.get(conf);Configurationcconf=fs.getConf();Str

hadoop - 文件的最小数据大小是多少才能看到 hadoop 的优势?

我对这个主题做了很多研究,但对找到的答案还不满意。有人说它不仅仅取决于大小,还有许多其他影响因素,而其他人则说它需要在几个TB的大小范围内才能看到hadoop的真实本质。那么,在类似Java程序上测试Hadoop功能的最小输入数据大小是多少? 最佳答案 的确,这取决于不同的事情。我想这至少取决于以下几点:文件大小数据类型和格式集群规模和性能集群之间的网络连接计算和分析类型一般来说,您拥有的数据越多且越复杂,与“常规”Java程序相比,Hadoop的性能就越好。我不能给你一定的限制。“Hadoop买家指南”(RobertD.Schne